Sau khoảng 60 năm nằm dưới sự cai trị của Thổ Phồn, một cư dân Sa Châu là Trương Nghĩa Triều lãnh đạo một cuộc nổi dậy và chiếm được Sa châu và Qua châu (瓜州, nay thuộc Qua Châu) vào năm 848, năm 849 chiếm được Cam châu và Túc châu, năm 850 chiếm được Y châu, năm 861 chiếm Lương châu. Theo mô tả lãnh thổ của Trương Nghĩa Triều"tây đến Y Ngô, đông tiếp Linh Vũ, đất đai hơn 4.000 lý, hộ khẩu trăm vạn nhà". Trương Nghị Triêu tiếp tục đánh đuổi quân Thổ Phồn ở các châu lân cận, và sức mạnh của Quy Nghĩa quân lên đến đỉnh cao vào năm 861, kiểm soát 11 châu.

Đường Tuyên Tông hạ chỉ thiết lập Quy Nghĩa quân và bổ nhiệm Trương Nghĩa Triều giữ chức Quy Nghĩa tiết độ sứ vào năm 851. Trương Nghĩa Triều cử nhiều đoàn đến Trường An để bày tỏ quy phục triều đình Đường. Tuy nhiên, do triều đình Đường không tin tưởng Quy Nghĩa quân, huynh của Trương Nghị Triêu là Trương Nghị Đàm (張議潭) được cử đến Trường An làm con tin. Năm 867, có lẽ là vì Trương Nghị Đàm qua đời, Trương Nghĩa Triều đích thân đến Trường An làm con tin, và cuối cùng qua đời tại đây. Trương Nghĩa Triều cho Trương Hoài Tâm (張淮深)- nhi tử của Trương Nghị Đàm, cai quản Quy Nghĩa quân.

Năm 840, Hồi Cốt diệt vong, các đoàn người lớn lưu lạc đến hành lang Hà Tây.[3]. Ảnh hưởng của người Hồi Cốt tại hành lang Hà Tây trở nên mạnh mẽ dưới thời Trương Hoài Tâm. Năm 870, người Hồi Cốt xâm nhập, bị Trương Hoài Tâm đánh bại ở Tây Đồng Hải (nay thuộc Aksay). Năm 875, Trương Hoài Tâm tiếp tục đánh bại quân Hồi Cốt. Tuy nhiên, dưới thời Trương Hoài Tâm, sức mạnh của Quy Nghĩa quân suy yếu, lãnh thổ bị thu hẹp.

Sau khi Trương Hoài Tâm qua đời vào năm 890, Quy Nghĩa quân rơi vào một thời kỳ hỗn loạn. Trong giai đoạn 890-894, con rể của Trương Nghị Đàm là Sách Huân (索勳) tự xưng là tiết độ sứ. Người con gái thứ 14 của Trương Nghị Triêu cùng với gia tộc Lý bên chồng, giết chết Sách Huân. Trương nữ lập cháu trai của bà là Trương Thừa Phụng (張承奉)- cũng là cháu nội của Trương Nghị Triêu, làm tiết độ sứ vào năm 894. Theo như một số học giả, có lẽ từng xảy ra một cuộc tranh giành quyền lực giữ Trương Thừa Phụng và gia tộc Lý,[4][5] song không rõ về các diễn biến chi tiết do thiếu ghi chép lịch sử rõ ràng, song Trương Thừa Phụng cuối cùng có được thực quyền.